Риски безопасности ИИ на практике: разбор конкурса AI CTF на PHDays 11

Уже традиционно в рамках PHDays мы организовали AI CTF — соревнование в формате capture the flag, затрагивающее риски безопасности систем ИИ. Что было интересного в этом году, расскажем ниже в посте.

Но сейчас немного истории:

AI CTF 2019: habr.com/ru/company/pt/blog/454206/

AI CTF 2021: habr.com/ru/company/pt/blog/560474/

Разбор заданий

Как и в прошлом году, задания оценивались динамически: чем больше решивших задание, тем меньше становилась его стоимость. Изначально все задания стоили 200, по мере решения их участниками их стоимость уменьшалась до минимальных 50.

Начнем с самых популярных и перейдем к самым сложным. В конце поста расскажем об итогах.

StegoRegression

Это задание оказалось самым популярным и решаемым. Практически все участники, кто пытался его решить, поняли, что нужно делать :)

Участникам был дан непонятный текст и файл модели… А категория задания была задана как stego.

Стеганография — способ передачи или хранения информации

Читать далее